Boostcamp AI tech Boostcamper's TIL (3) 다양한 확률분포들 중에서 어떠한 확률분포를 사용해서 모델링을 하느냐는 중요한 선택일 수 있다. 모수적(parametric)방법론 - 데이터가 특정 확률분포를 따른다고 가정한 후 분포를 결정 확률분포를 가정할 수 있는 방법은 데이터의 전체적인 모양(히스토그램, 값을 갖는 범위)을 통해 가정할 수 있다. 주어진 확률분포를 어떤식으로 가정하느냐에 상관없이 이론적으로 가장 가능성이 높은 파라미터를 ... TILBoostcamp AI techBoostcamp AI tech Matplotlib Text Matplotlib에서 Text Text Properties 추가 Text API Text in Viz 시각화에서 Text 사용 이유 Visual representation들이 줄 수 없는 설명을 추가해 줌 잘못된 전달에서 생기는 오해 방지 가능 하지만 Text를 과하게 사용한다면 이해를 방해할 수도 있다 Anatomy of a Figure Title : 가장 큰 주제를 설명 Label : ... Boostcamp AI tech시각화Boostcamp AI tech Boostcamper's TIL (2) Python Basic Python Object-Oriented Programming 현실 세계를 모델링해 속성과 행동을 가지는 객체를 만드는 객체지향 프로그래밍에 대해 공부했다. 객체지향 프로그래밍의 의미는 프로그래밍 언어에 따라 큰 차이가 없어서 문법적 차이점을 익히는데 집중했다. 가장 큰 차이점은 java, c++ 언어에서는 클래스를 생성할 때 가장 먼저 생성자 함수가 실행되어 멤버 변... Boostcamp AI techTILBoostcamp AI tech Boostcamper's TIL (5) DL Basic 좋은 Deep Learner는 무엇일까? Deep Learning 주요 요소 Model Loss 어떤 데이터를 사용하는지, 어떤 모델을 사용했는지, 모델의 성능, loss를 최소화 할 수 있는 알고리즘 등이 Deep Learning의 주요 요소라고 볼 수 있다. 2013 DQN - 구글 딥마인드가 개발한 알고리즘으로서, 강화 학습 가능한 심층 신경망을 이용하여 초창기 아타리 ... Boostcamp AI techTILBoostcamp AI tech Boostcamp AI tech Week 3 [PyTorch] Tensor Squeeze : 차원의 개수가 1인 차원을 삭제 Unsqueeze : 차원의 개수가 1인 차원을 추가 🔥Pytorch의 핵심은 자동 미분의 지원 -> backward 함수 사용🔥 torch.Tensor - 클래스 - torch 데이터 입력시 입력 받은 데이터의 메모리 공간 사용 - list, numpy 데이터 입력시 입력 받은 데이터를 복사하여 새롭게 torc... Boostcamp AI techBoostcamp AI tech 경사하강법 - 1 미분은 변화율의 극한(limit)으로 정의 미분을 손으로 계산하려면 일일이 h->0 극한을 계산해야 함 sympy.diff 을 활용하면 미분을 컴퓨터로 계산 가능 미분은 함수 f의 주어진 점 (x, f(x)) 에서의 접선의 기울기를 구함 미분을 계산하려면 함수의 모양이 매끄러워야(연속) 함 h를 0으로 보내면 (x, f(x))에서 접선의 기울기로 수렴 미분을 어디에 쓸까? 증가시키고 싶다면 ... ai mathBoostcamp AI techBoostcamp AI tech 경사하강법 - 2 이전 강의에서는 무어-펜로즈 역행렬을 활용 이번 강의에서는 경사하강법을 이용해 선형모델을 찾는 방법을 배운다. ||y-X \beta||_2 ∣∣y−Xβ∣∣2 목적식을 최소화하는 β**를 찾아야 하므로 목적식에 대한 그레디언트 벡터를 구해야 함 ||y-X \beta||_2 ∣∣y−Xβ∣∣2 가 아닌 ||y-X \beta||_2^2 ∣∣y−Xβ∣∣22 를 최소화해도 됨 β(t+1)은 lr lr ... ai mathBoostcamp AI techBoostcamp AI tech [Boostcamp AI Tech] [모델 최적화] 17주차 Day 3 학습 기록 AutoML AutoML 라이브러리인 Optuna에 대한 코드 및 실습 AutoML(HPO) : Dataset과 Model Architecture가 정해졌을 때 최적의 hyperparameter를 자동으로 search AutoML은 새로운 경량 모델을 search를 통해 찾는 방법이다. Search를 통해 경량 모델을 찾는 기법 : NAS(Neural Architecture search), ... Boostcamp AI tech모델 최적화Boostcamp AI tech [Boostcamp AI Tech] PyTorch Pytorch Basics 다차원 Arrays 를 표현하는 PyTorch 클래스 numpy-ndarray = TensorFlow의 Tensor = Pytorch의 Tensor 또한 tensor가 가질수 있는 data 타입은 numpy와 동일하다 pytorch의 tensor는 GPU에 올려서 사용가능하다 추가로 view, squeeze, unsqueeze 등으로 tensor 조정이 가능하다. view: reshape과 ... PyTorchBoostcamp AI techBoostcamp AI tech
Boostcamper's TIL (3) 다양한 확률분포들 중에서 어떠한 확률분포를 사용해서 모델링을 하느냐는 중요한 선택일 수 있다. 모수적(parametric)방법론 - 데이터가 특정 확률분포를 따른다고 가정한 후 분포를 결정 확률분포를 가정할 수 있는 방법은 데이터의 전체적인 모양(히스토그램, 값을 갖는 범위)을 통해 가정할 수 있다. 주어진 확률분포를 어떤식으로 가정하느냐에 상관없이 이론적으로 가장 가능성이 높은 파라미터를 ... TILBoostcamp AI techBoostcamp AI tech Matplotlib Text Matplotlib에서 Text Text Properties 추가 Text API Text in Viz 시각화에서 Text 사용 이유 Visual representation들이 줄 수 없는 설명을 추가해 줌 잘못된 전달에서 생기는 오해 방지 가능 하지만 Text를 과하게 사용한다면 이해를 방해할 수도 있다 Anatomy of a Figure Title : 가장 큰 주제를 설명 Label : ... Boostcamp AI tech시각화Boostcamp AI tech Boostcamper's TIL (2) Python Basic Python Object-Oriented Programming 현실 세계를 모델링해 속성과 행동을 가지는 객체를 만드는 객체지향 프로그래밍에 대해 공부했다. 객체지향 프로그래밍의 의미는 프로그래밍 언어에 따라 큰 차이가 없어서 문법적 차이점을 익히는데 집중했다. 가장 큰 차이점은 java, c++ 언어에서는 클래스를 생성할 때 가장 먼저 생성자 함수가 실행되어 멤버 변... Boostcamp AI techTILBoostcamp AI tech Boostcamper's TIL (5) DL Basic 좋은 Deep Learner는 무엇일까? Deep Learning 주요 요소 Model Loss 어떤 데이터를 사용하는지, 어떤 모델을 사용했는지, 모델의 성능, loss를 최소화 할 수 있는 알고리즘 등이 Deep Learning의 주요 요소라고 볼 수 있다. 2013 DQN - 구글 딥마인드가 개발한 알고리즘으로서, 강화 학습 가능한 심층 신경망을 이용하여 초창기 아타리 ... Boostcamp AI techTILBoostcamp AI tech Boostcamp AI tech Week 3 [PyTorch] Tensor Squeeze : 차원의 개수가 1인 차원을 삭제 Unsqueeze : 차원의 개수가 1인 차원을 추가 🔥Pytorch의 핵심은 자동 미분의 지원 -> backward 함수 사용🔥 torch.Tensor - 클래스 - torch 데이터 입력시 입력 받은 데이터의 메모리 공간 사용 - list, numpy 데이터 입력시 입력 받은 데이터를 복사하여 새롭게 torc... Boostcamp AI techBoostcamp AI tech 경사하강법 - 1 미분은 변화율의 극한(limit)으로 정의 미분을 손으로 계산하려면 일일이 h->0 극한을 계산해야 함 sympy.diff 을 활용하면 미분을 컴퓨터로 계산 가능 미분은 함수 f의 주어진 점 (x, f(x)) 에서의 접선의 기울기를 구함 미분을 계산하려면 함수의 모양이 매끄러워야(연속) 함 h를 0으로 보내면 (x, f(x))에서 접선의 기울기로 수렴 미분을 어디에 쓸까? 증가시키고 싶다면 ... ai mathBoostcamp AI techBoostcamp AI tech 경사하강법 - 2 이전 강의에서는 무어-펜로즈 역행렬을 활용 이번 강의에서는 경사하강법을 이용해 선형모델을 찾는 방법을 배운다. ||y-X \beta||_2 ∣∣y−Xβ∣∣2 목적식을 최소화하는 β**를 찾아야 하므로 목적식에 대한 그레디언트 벡터를 구해야 함 ||y-X \beta||_2 ∣∣y−Xβ∣∣2 가 아닌 ||y-X \beta||_2^2 ∣∣y−Xβ∣∣22 를 최소화해도 됨 β(t+1)은 lr lr ... ai mathBoostcamp AI techBoostcamp AI tech [Boostcamp AI Tech] [모델 최적화] 17주차 Day 3 학습 기록 AutoML AutoML 라이브러리인 Optuna에 대한 코드 및 실습 AutoML(HPO) : Dataset과 Model Architecture가 정해졌을 때 최적의 hyperparameter를 자동으로 search AutoML은 새로운 경량 모델을 search를 통해 찾는 방법이다. Search를 통해 경량 모델을 찾는 기법 : NAS(Neural Architecture search), ... Boostcamp AI tech모델 최적화Boostcamp AI tech [Boostcamp AI Tech] PyTorch Pytorch Basics 다차원 Arrays 를 표현하는 PyTorch 클래스 numpy-ndarray = TensorFlow의 Tensor = Pytorch의 Tensor 또한 tensor가 가질수 있는 data 타입은 numpy와 동일하다 pytorch의 tensor는 GPU에 올려서 사용가능하다 추가로 view, squeeze, unsqueeze 등으로 tensor 조정이 가능하다. view: reshape과 ... PyTorchBoostcamp AI techBoostcamp AI tech